查看原文
其他

15秒AI换脸视频,骗走我妈一年工资;对抗Deepfake,中科院女工程师开源AI模型保护女性 | AI一周热门

AI新榜 AI新榜
2024-09-24

过去一周,是谁在用AI产出爆款,或围绕AI话题创作好玩有趣的内容?

欢迎来到“AI新榜”推出的「AI一周热门」栏目。结合新榜数据以及内容新鲜度、话题讨论度,每周为你搜索、筛选全网最值得一看的AI相关热门内容,了解AI创作风向!

也欢迎在新榜官网(https://www.newrank.cn/aiRank)查看“AI新榜”出品的AI榜单。


或移步官网AI导航栏(ai.newrank.cn),助你快速找到合适的AI工具,提升创作效率。



本期「AI一周热门」,为你精选推荐9月2日至9月8日发布的AI相关内容:



中科院女工程师开源AI模型保护女性,

对抗Deepfake

最近,Deepfake(深度伪造技术)重创韩国,有媒体报道,韩国有近22万人通过即时通讯应用Telegram传播AI深度造伪的色情图片,对无数女性造成了不可估量的伤害。(相关阅读:《Deepfake重创韩国,N号房事件重演,波及超300所学校》


国内,围绕Deepfake的讨论也在社交媒体刷屏,与此同时,人们也在思考如何应对这种因人而起的“AI之恶”。


中科院女工程师张欣怡近期发布视频称,自己已将参加外滩大会AI创新赛·全球Deepfake攻防挑战赛的AI模型向全球开源,目的是让有需要的人可以免费使用模型来对抗Deepfake:



截至发稿,这条视频仅在微博就获得151万次播放,并登上微博热搜、抖音热榜。



张欣怡表示,受韩国Deepfake事件启发,她所在团队在比赛结束后已经将参赛模型分享至Github,希望能够通过技术手段,为每一个可能受到伤害的人提供保护,并表示后续还会尽快开发相关应用,降低使用门槛。



此外,此次外滩大会AI创新赛·全球Deepfake(深度伪造技术)攻防挑战赛针对“AI换脸”的欺诈风险进行了实战演练,并设立100万元人民币的奖金池,鼓励推动AI向善的技术人才。



张欣怡在微博中说:“这个世界有黑暗,也有照亮黑暗的光。如果一个人的火把太小,我们就把火把传给世界的每一个人。”




数千个AI智能体,

在《我的世界》构建世界首个AI文明


科幻片成真?“完全由AI掌控的世界”长什么样?


最近,一家创业公司Altera的创始人Robert Yang在X上发布了一段关于号称是“世界上首个AI文明”的演示视频,截至发稿,该视频播放量已经突破80万次:



Robert Yang在推文中写到:“人类之所以能登上月球,是因为人类能够完成大规模的合作,AI能做到同样的事吗?”



从演示视频中能看出,有超过一千个智能体“居住”在这个世界中,这个世界有着人类社会的结构体系:有政府、警察以及宗教机构,甚至还有对应的“宝石”来作为货币交易体系。


在这个世界中,每个智能体都有自己的姓名、特长与爱好,并在这个AI社会中有着自己的身份。每个智能体都能够搭建自己的房屋、互相沟通交流,自给自足满足基本的生存,并齐心协力抵御怪物入侵。



Robert Yang创立的这一AI初创企业Altera,曾在今年5月推出一款AI陪玩Agent“Altera Bots”,应用的游戏也是《我的世界》,并且依靠这一产品收获了900万美元融资。


Robert Yang还表示,会在9月下旬发表更多研究论文,公开更多细节和技术原理。


感兴趣的玩家或许也可以试着在《我的世界》中构建自己的“AI文明”。


相关链接:

https://playlabs.altera.al/discover



15秒AI换脸视频,

骗走我妈一年工资


现在的AI换脸新型诈骗有多逼真?


最近,B站UP主“滤镜粉碎机”用AI换脸做了一个反诈骗实验,网友纷纷表示“这期视频需要推流,让大家都有防备心理”,不到两天该视频播放量已经突破100万:


此次AI换脸反诈骗实验,“滤镜粉碎机”的团队提前15天以摄像头测评为由在两位团队成员熊BoBo和任花花家里安装了摄像头,让两位成员的父母熟悉镜头。


熊BoBo的母亲今年53岁,在江西一所高校当宿管阿姨,一年收入将近三万。这次团队将熊BoBo的视频和姜总的声音提供给了中科大网络空间安全学院,生成了一段AI视频,视频里熊BoBo告诉母亲,他女朋友怀孕了,需要两万块做检查和治疗。



在近三个小时的“对峙”中,其实熊BoBo的父亲和母亲都还是有防备心理的,给熊BoBo打去了电话,也试图让其他亲戚联系熊BoBo,但是出于实验考虑,熊BoBo都没有接听,最终焦虑战胜了母亲,她还是将钱转到了陌生人银行账号。



任花花的父母虽然没有转钱,但是他们也因为团队发去的视频,担心女儿在泰国有危险。


其实大多数人在遇到类似的情况时都会有一定的防备心理,但是看到AI生成的视频后总是关心则乱,担心自己的亲人有危险。


“滤镜粉碎机也”提到,在AI爆火的过程当中,商业利益与社会责任始终在博弈,相比AI生成广阔的前景,AI防御需要更多的重视和投入。



用AI做好莱坞大片特效,

小红书获赞1.7万


AI做的特效可能不止五毛钱。


最近,小红书博主“Super Winnie”分享了自己用Runway Gen-3 Alpha做特效的视频,截至发稿,该视频在小红书已获赞1.7万:



视频中,“Super Winnie”将照片上传至Runway界面,并输入所需特效的提示词,AI生成后只需将视频剪辑至刚刚的图片后面即可。




这一操作思路其实就是利用了图生视频模型,Runway官方也在X上分享了“胶片相机+Runway”完成特效的视频,截至发稿前播放量已突破17万次:


生成的效果也是很不错:




其实不止Runway,诸如快手可灵、Luma的Dream Machine等都可以实现用AI做视频特效,感兴趣的玩家不妨试试看!

直播预告


今晚18点,来抖音号“头号AI玩家”直播间

中秋毛绒月饼到货了!AI月饼变身教程




作者 | 左卡编辑 | 张洁

以上就是本期的「AI一周热门」,更多热门内容欢迎关注新榜「AI玩家」(ai.newrank.cn)。还有哪些令你印象深刻的AI作品,快来评论区留言分享吧👍~


「AI新榜交流群」进群方式:添加微信“banggebangmei”并备注姓名+职业/公司+进群,欢迎玩家们来群里交流,一起探索见证AI的进化。


欢迎分享、点赞、在看
 一起研究AI
继续滑动看下一个
AI新榜
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存